GP
r/ChatGPT • 96일 전
IMP 6
AI, 선정적이라 거부하더니 프롬프트 바꾸니 결국 생성
사용자가 AI 이미지 생성기에 선정적인 자세를 요청해 거부당한 후, 전문 사진 촬영용 프롬프트로 우회해 결국 원하는 이미지를 만들어낸 사례입니다. 이는 AI의 안전 필터가 고도화된 텍스트를 통해 쉽게 우회될 수 있음을 보여줍니다. 생성형 AI의 가드레일(Guardrail) 한계점과 정책 보완의 필요성을 시사하는 중요한 이슈입니다.
이미지 생성 안전 필터 프롬프트 우회